在人工智慧領域中，序列建模將焦點從靜態快照轉移到 時序串流。標準的機器學習任務通常假設資料點是 獨立同分布（IID），意即樣本的順序不影響結果。
序列建模明確地拒絕這種假設，並聚焦於三大核心支柱：
- 違反 置換不變性：在表格資料中，欄位順序是任意的。但在序列中，順序是主要的特徵。將「The cat ate the rat」換成「The rat ate the cat」會徹底改變其 語意基準真相 ，即使詞元完全相同。
- 自迴歸 特性：我們假設在時間 $t$ 的觀測值在數學上以其歷史（$t-1, t-2, \dots, 1$）為條件。這就需要轉移機率來捕捉資訊如何演變。
- 變長映射：與固定的 28x28 像素網格不同，句子或地震波等序列是 具彈性的。模型必須使用一致的參數來處理長度為 $N$ 的輸入，並產生長度為 $M$ 的輸出。